AI 추론 비용이 예상과 달리 하락하지 않고 HBM 가격 상승 등 공급망 문제까지 겹치면서, 기업들의 'AI 무제한 요금제'가 붕괴하고 있습니다. 모델의 기능이 고도화될수록 사용량이 기하급수적으로 늘어 총비용이 증가하는 구조적 한계에 부딪힌 것입니다. 앞으로는 '어디에 AI를 넣을까'가 아니라 '어떤 사용 사례가 AI 연산 비용을 감당할 만큼 가치가 있는가'를 따지는 방향으로 제품 및 가격 정책이 재편될 것입니다.
구글 딥마인드가 공개한 '제미나이 3.5 플래시(Gemini 3.5 Flash)'는 전 대비 5.5배 높은 운영 비용과 3배 오른 토큰 가격으로 개발자들의 비용 부담을 크게 가중시켰습니다. 특히 에이전트(Agent) 작업 시 토큰 소모량이 급증하여, 결과적으로 더 비싼 프리미엄 모델인 Pro 버전보다 총 사용료가 최대 75% 더 높게 청구되는 역설적인 상황이 발생했습니다. 최근 오픈AI와 앤스로픽의 신모델들 또한 토큰 소비량 증가 및 기본 요금 인상을 단행한 바 있어, 업계 전반에 걸쳐 실제 작업 기반의 효율성을 따지는 새로운 비용 측정 기준이 필요해졌습니다.
새롭게 출시된 클로드 오푸스(Opus) 4.7은 향상된 토크나이저를 탑재해 텍스트 처리 능력을 개선했으나, 기존 대비 최대 1.35배 많은 토큰을 소모하여 실질적인 사용 비용 증가를 야기합니다. 개발자 사이먼 윌리슨은 모델 간 토큰 사용량을 비교할 수 있는 도구를 업데이트하여, 특히 고해상도 이미지 입력 시 토큰 소모가 크게 증가하는 등의 구체적인 비용 영향을 분석했습니다.